EvoTrainer: Co-Evolving LLM Policies and Training Harnesses for Autonomous Agentic Reinforcement Learning
EvoTrainer:自主训练中策略与诊断羁绳的共进化框架
🧭 自动化训练 · 共进化诊断 harness ★ 深度解读
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences · Tongyi Lab, Alibaba Group · Alibaba Group · SUAT
提出 EvoTrainer,让训练诊断 har ness 随策略共同进化,在 SWE/Math/Coding 上超越人工 RL 基线
📌 工作参考价值(4 点)
- 训练诊断基础设施的持续进化:在推荐系统模型迭代中,可引入版本化的监控指标(如 CTR、留存)和诊断分析器,当业务指标停滞时,自动探测新瓶颈(如曝光偏差、用户群体差异),触发诊断升级。
- 持久化训练技能库:积累已验证的调参机制(如方差过滤、长度惩罚),跨项目复用,类似 StdGroupFilter 在 SWE→Math/Coding 的迁移,可构建推荐场景的“策略模板库”。
- 避免纯 score 驱动的短视自主迭代:通过引入行为层诊断(如用户行为序列检查、重复曝光统计),防止虚假高分模型被错误提升,类似 Git 泄露审计。
- 版本化实验管理与回溯:保留完整训练谱系和干预记录,便于事后归因,为自动实验平台提供审计和演绎能力。